Tháng 5/1952 tham gia cách mạng, làm việc tại Xưởng quân giới Liên khu 5 (xã Ân Khánh, huyện Hoài Ân, tỉnh Bình Định). Năm 1954 là học sinh miền Nam ra miền Bắc học tập.[2]

Đến năm 1961 ông ra Hà Nội học tiếng Nga chuẩn bị đi học đại học. Từ năm 1962 đến năm 1967 học tập tại Trường Đại học Bách khoa Khác-cốp, Liên Xô (cũ). Tại đây, ngày 2/5/1965, ông được kết nạp vào Đảng Cộng sản Việt Nam.

Từ tháng 8/1967 trở về nước, ông về Hải Phòng công tác tại Xí nghiệp Cơ khí 19-8; Nhà máy Cơ khí kiến thiết Hải Phòng và Sở Công nghiệp Hải Phòng.

Từ năm 1985 đến năm 1989, ông đảm nhiệm các nhiệm vụ Trưởng ban Công nghiệp của Thành ủy Hải Phòng, Phó Chủ tịch UBND Tp Hải Phòng phụ trách công nghiệp.[3]

Những năm 1987 - 1989 ông giữ chức Phó Chủ tịch Ủy ban nhân dân Thành phố Hải phòng,[4] đại biểu Quốc hội Việt Nam khóa VIII tại khu vực Thành phố Hải phòng,[5] Phó Bí thư Thành ủy, Chủ tịch UBND Tp Hải Phòng.

Năm 1989-1994 ông giữ chức vụ Tổng cục trưởng Tổng cục Hải quan thay ông Nguyễn Tài.[6][7]

Ông là Ủy viên Trung ương Đảng các khóa VII, VIII, IX,

Năm 1994 ông và ông Mai Thúc Lân được Trung ương cử về tỉnh Quảng Nam - Đà Nẵng. Ông làm Phó Bí thư Tỉnh ủy, Chủ tịch Ủy ban nhân dân tỉnh Quảng Nam - Đà nẵng thay ông Trần Đình Đạm. Ông Mai Thúc Lân làm Bí thư Tỉnh ủy thay ông Nguyễn Văn Chi.[8]

Năm 1997 khi chia tách tỉnh Quảng Nam - Đà Nẵng ông được bầu làm Bí thư Thành ủy, Chủ tịch Hội đồng nhân dân Thành phố Đà Nẵng đầu tiên.[9] Người giữ chức Chủ tịch Ủy ban nhân dân Thành phố Đà Nẵng đầu tiên sau khi chia tách tỉnh là ông Nguyễn Bá Thanh. Ông Mai Thúc Lân làm Bí thư tỉnh ủy Quảng Nam.

Tháng 2 năm 2000 ông chuyển ra Hà Nội giữ chức Trưởng ban Dân vận Trung ương.[9]

Năm 2001 ông được bầu là Ủy viên Bộ Chính trị khóa IX.

Năm 2002 ông được cử giữ chức Phó Chủ tịch Quốc hội khóa XI, từ 2003 đến 2007 được phân công kiêm Trưởng ban Công tác Đại biểu.[10]

Tháng 1 năm 2008, ông nghỉ hưu theo chế độ.